\(\overrightarrow{n}=\left[\overrightarrow{AB};\overrightarrow{n_{\alpha}}\right]=\left(1;-2;1\right)\) là một vectơ pháp tuyến của \(\left(\beta\right)\)

Mặt phẳng \(\beta\) đi qua A có vectơ pháp tuyến \(\overrightarrow{n}=\left(1;-2;1\right)\) có phương trình \(x-2y+z-2=0\)

Cho x, y là các số thỏa mãn \(x^2+y^2+xy=3\Leftrightarrow\left(x+y\right)^2-3=xy\)

Vì \(xy\le\frac{\left(x+y\right)^2}{4}\Leftrightarrow\left(x+y\right)^2-3\le\frac{\left(x+y\right)^2}{4}\)

                       \(\Leftrightarrow\left(x-y\right)^2\le4\)

Mặt phẳng ( α ) vuông góc với hai mặt phẳng ( β ) và ( γ ), do đó hai vecto có giá song song hoặc nằm trên ( α ) là:  n β →  = (3; −2; 2) và  n γ →  = (5; −4; 3).

Suy ra  n α →  =  n β →   ∧   n γ →  = (2; 1; −2)

Mặt khác ( α )( α ) đi qua điểm M(3; -1; -5) và có vecto pháp tuyến là  n α → . Vậy phương trình của ( α ) là: 2(x – 3) + 1(y + 1) – 2(z + 5) = 0 hay 2x + y – 2z – 15 = 0.

Mặt phẳng (P) có vecto pháp tuyến \(\overrightarrow{p}=\left(1;2;3\right)\)

Mặt phẳng (Q) có vecto pháp tuyến \(\overrightarrow{q}=\left(3;2-1\right)\)

Vì \(1:2:3\ne3:2:\left(-1\right)\) nen (P) và (Q) cắt nhau.

Do mặt phẳng (R) cần tìm có phương trình vuông  góc với cả (P) và (Q) nên (R) nhận 2 vecto \(\overrightarrow{p}\) và \(\overrightarrow{q}\) làm cặp vecto chỉ phương. 

Vậy mặt phẳng (R) có vecto pháp tuyến \(\overrightarrow{r}\) cùng phương với vecto :

\(\left[\overrightarrow{p};\overrightarrow{q}\right]=\left(\left|\begin{matrix}2&3\\2&-1\end{matrix}\right|;\left|\begin{matrix}3&1\\-1&3\end{matrix}\right|;\left|\begin{matrix}1&2\\3&2\end{matrix}\right|\right)\)

              \(=\left(-8;10;-4\right)=-2\left(4;-5;2\right)\)

Do đó có thể chọn \(\overrightarrow{r}=\left(4;-5;2\right)\)

Suy ra (R) có phương trình :

\(4\left(x-1\right)-5\left(y-1\right)+2\left(z-1\right)=0\)

hay \(\left(R\right):4x-5y+3z-1=0\)

\(d\left(A,\left(\alpha\right)\right)=\frac{4}{3}\)

\(\left(\beta\right)\)//\(\left(\alpha\right)\) nên phương trình \(\left(\beta\right)\) có dạng : \(x+2y-2z+d=0,d\ne-1\)

\(d\left(A,\left(\alpha\right)\right)=d\left(A,\left(\beta\right)\right)\)\(\Leftrightarrow\frac{\left|5+d\right|}{3}=\frac{4}{3}\Leftrightarrow\begin{cases}d=-1\\d-9\end{cases}\)\(\Leftrightarrow d=-9\left(d=-1loai\right)\)\(\Rightarrow\left(\beta\right):x+2y-2z-9=0\)

\(\overrightarrow{AB}=\left(-1;-2;1\right)\); \(\overrightarrow{n_{\alpha}}=\left(2;-1;2\right)\)\(\Rightarrow\overrightarrow{n_p}=\left[\overrightarrow{AB};\overrightarrow{n_{\alpha}}\right]=\left(-3;4;5\right)\)

Phương trình mặt phẳng (P) : \(-3x+4y+5z=0\)

\(R=d\left(A;\left(\alpha\right)\right)=\frac{\left|6-1+2+1\right|}{\sqrt{9}}=\frac{8}{3}\)

Phương trình mặt cầu (S) : \(\left(x-3\right)^2+\left(y-1\right)^2+\left(z-1\right)^2=\frac{64}{9}\)